AI032
การเขียนโปรแกรมสำหรับโปรเซสเซอร์ขนานกันจำนวนมาก: แนวทางปฏิบัติจริง
การคำนวณเลขทศนิยมแบบจุดลอยตัวและความแม่นยำทางตัวเลข
วัตถุประสงค์การเรียนรู้
เข้าใจโครงสร้างการเก็บข้อมูลจำนวนจริงในระบบ; คำนวณค่าเครื่องเอพซิลอน (machine epsilon) และขีดจำกัดของความแม่นยำ; ระบุและลดผลกระทบจากความผิดพลาดในการลบแบบรุนแรง (catastrophic cancellation); ใช้ขีดจำกัดของข้อผิดพลาดในการดำเนินการทางคณิตศาสตร์